Pergeseran Paradigma
Kita sedang beralih dari "performa dengan segala cara" menuju AI yang Bertanggung Jawab (RAI) kerangka kerja. Di era baru ini, keberhasilan teknis sepenuhnya bergantung pada ketangguhan etis dan pengaman keselamatan.
1. Optimisasi Terkendala
Secara historis, tujuannya adalah meminimalkan fungsi kerugian $L(\theta)$. Paradigma baru memperlakukan AI sebagai masalah optimisasi terkendala: $$\max P \text{ subject to } C_1, C_2, \dots, C_n$$ di mana $C$ merepresentasikan ambang batas keselamatan dan keadilan yang tidak dapat dinegosiasikan.
2. Kesenjangan "In-Vitro" vs. "In-Vivo"
Model sering kali mencapai hasil terbaik (SOTA) pada tolok ukur statis (in-vitro) namun mengalami kegagalan katastrofik di lingkungan sosioteknis dunia nyata (in-vivo) akibat interaksi yang tidak terduga.
Kiri: Akurasi/kecepatan tinggi, tanpa keselamatan/transparansi. Kanan: Heksagon seimbang yang merepresentasikan keselamatan, keadilan, dan interpretabilitas.
Contoh: Perdagangan Frekuensi Tinggi
Model yang hanya berfokus pada performa dianggap berhasil jika memaksimalkan ROI. Model RAI dianggap gagal jika mencapai ROI tinggi tetapi memicu "flash crash" akibat kurangnya pengaman stabilitas pasar.